برآورد پارامترهای مدل رگرسیونی به کمک ماکسیمم آنتروپی تعمیم یافته

در این تحقیق مسأله ماکسیمم آنتروپی تعمیم یافته تحت قید پارامتری کردن اندازه اطلاع سیزار و مسأله مینیمم اندازه اطلاع سیزار تحت قید پارامتری کردن آنتروپی تعمیم یافته را مطرح کرده و نشان می دهیم که حل آن ها به جواب یکسان منجر می شود. اصل ماکسیمم آنتروپی تعمیم یافته را که توسط کاپور و کساوان ‎(1989)‎ مطرح شده بود مورد نظر قرار داده، ضمن بیان نکاتی در این رابطه، اصل ماکسیمم آنتروپی تعمیم یافته مرتبه ?‎ را بر اساس آنتروپی تی سالیس معرفی می کنیم. بعد از معرفی روش ماکسیمم آنتروپی تعمیم یافته با توجه به کاربردهای آنتروپی تی سالیس و به خصوص آنتروپی تی سالیس مرتبه ‎2‎، به جای آنتروپی شانون از آنتروپی تی سالیس مرتبه دو استفاده کرده و آن را برآوردگرهای ماکسیمم آنتروپی تی سالیس مرتبه دو تعمیم یافته می نامیم. برای یک مجموعه داده این برآوردگرها را محاسبه و با یکدیگر مقایسه می کنیم. براساس برآوردگرهای ماکسیمم آنتروپی تی سالیس مرتبه دو تعمیم یافته برآوردگر ماکسیمم آنتروپی تی سالیس مرتبه دو تعمیم یافته ریج را معرفی و برای داده هایی که از هم خطی بالایی برخوردار هستند آن را محاسبه و با سایر برآوردگرهای ریج مورد ارزیابی قرار می دهیم